정보과학회논문지 (Journal of KIISE)
Current Result Document :
| 한글제목(Korean Title) |
트랜스포머 기반 한국어 텍스트 요약 모델의 순차적 문맥 학습 영향성 분석 |
| 영문제목(English Title) |
Analyzing the Impact of Sequential Context Learning on the Transformer Based Korean Text Summarization Model |
| 저자(Author) |
김수빈
김용준
방준성
Subin Kim
Yongjun Kim
Junseong Bang
|
| 원문수록처(Citation) |
VOL 48 NO. 10 PP. 1097 ~ 1104 (2021. 10) |
한글내용
(Korean Abstract) |
텍스트 요약 기술은 전체 텍스트 내용이 가지는 의미를 유지하면서도 텍스트의 길이를 줄여, 정보 과적재 문제를 해결하고 독자의 빠른 정보 소비를 돕는다. 이를 위해 트랜스포머 기반의 영어 텍스트 요약 모델에 대한 연구가 활발히 진행되고 있다. 최근에는 RNN 기반의 인코더를 추가하여 고정된 어순을 갖는 영어의 특성을 반영한 추상 텍스트 요약 모델이 제안되기도 했다. 본 논문은 영어보다 자유로운 어순을 갖는 한국어에 대해 RNN 기반의 인코더를 이용하여, 텍스트 추상 요약 모델에 순차적 문맥 학습이 어떠한 영향을 미치는지 연구하였다. 직접 수집한 한국어 기사에 대해 트랜스포머 기반 모델과 기존 트랜스포머에 RNN 기반 인코더를 추가한 모델을 학습하여 제목 생성 및 기사 내용 요약 성능을 분석하였다. 실험 결과, RNN 기반의 인코더를 추가한 모델이 더 높은 성능을 보였으며, 한국어 텍스트의 추상 요약 수행 시, 순차적인 문맥 학습이 필요함을 확인하였다. |
영문내용
(English Abstract) |
Text summarization reduces the sequence length while maintaining the meaning of the entire article body, solving the problem of overloading information and helping readers consume information quickly. To this end, research on a Transformer-based English text summarization model has been actively conducted. Recently, an abstract text summary model reflecting the characteristics of English with a fixed word order by adding a Recurrent Neural Network (RNN)-based encoder was proposed. In this paper, we study the effect of sequential context learning on the text abstract summary model by using an RNN-based encoder for Korean, which has more free word order than English. Transformer-based model and a model that added RNN-based encoder to existing Transformer model are trained to compare the performance of headline generation and article body summary for the Korean articles collected directly. Experiments show that the model performs better when the RNN-based encoder is added, and that sequential contextual information learning is required for Korean abstractive text summarization. |
| 키워드(Keyword) |
한국어 텍스트 요약
제목 생성
어텐션 메커니즘
트랜스포머 모델
Korean text summarization
headline generation
attention mechanism
transformer model
|
| 파일첨부 |
PDF 다운로드
|
